Lý Tĩnh sinh năm 571 dưới thời Bắc Chu. Ông nội ông, Lý Sùng Nghĩa (李崇義), từng làm thứ sử Ân Châu, tước đến Vĩnh Khang huyện công (永康县公), cha ông Lý Thuyên (李诠) từng làm thái thú quận Triệu, tước đến Lâm Phần tương công (临汾襄公). Mẹ ông là Hàn phu nhân, con gái Bắc Chu Tân Nghĩa quận công Hàn Mộc Lan (韩木兰), em gái của danh tướng nhà Tùy Hàn Cầm Hổ. Ngay từ nhỏ, ông đã thể hiện là một người tài năng văn võ song toàn, thông hiểu sử sách, đặc biệt có năng khiếu về lý luận quân sự. Cậu ông là Hàn Cầm Hổ đánh giá cao tài năng của Lý Tĩnh đến nỗi thường nói rằng: "Có thể đàm đạo cùng ta về binh pháp Tôn, Ngô (Tôn Tử, Ngô Khởi - hai nhà quân sự cổ đại nổi tiếng của Trung Quốc, nhất là Tôn Tử được xem như là thủy tổ của Binh gia), cũng chỉ có Lý Tĩnh thôi".

Thời trẻ ông đảm nhận chức Công tào (功曹) huyện Trường An, sau giữ chức Giá bộ Viên ngoại lang. Tuy đây chỉ là những chức quan nhỏ nhưng nhiều quan lớn trong triều như Lại bộ Thượng thư Ngưu Hoằng, Thượng thư Tả phó xạ Dương Tố đều biết đến tên tuổi Lý Tĩnh và có ý khen ngợi ông. Bản thân Lý Tĩnh tuy có tài hoa nhưng suốt nửa đời đầu, ông chỉ có thể đảm nhận những chức vụ nhỏ. Dương Tố từng có ý tiến cử ông với Tùy Dạng Đế, nhưng vì Lý Tĩnh có tình ý với một ca kỹ trong phủ Dương Tố là Trương Xuất Trần, làm Xuất Trần bỏ đi theo ông nên Dương Tố đâm ra ghét ông. Sau khi Dương Tố chết, con là Dương Huyền Cảm làm phản nhưng thất bại, bị giết cả họ. Lý Tĩnh vì từng có liên quan đến Dương gia nên trong một thời gian dài không được bổ nhiệm nữa.

Năm Đại Nghiệp thứ 13 (617), Lý Tĩnh được bổ nhiệm làm quận thừa Mã Ấp (nay thuộc tỉnh Sơn Tây). Lúc này phong trào khởi nghĩa phản Tùy đang lên cao: Hà Bắc có Đậu Kiến Đức, Hà Nam có Trạch Nhượng, Lý Mật, Giang Hoài có Đỗ Phục Uy, Phụ Công Thạch đều hùng cứ một phương, uy hiếp nghiêm trọng đến triều đình nhà Tùy. Lý Uyên khi đó đang là Lưu thủ Thái Nguyên cũng âm thầm chiêu binh mãi mã, chờ ngày khởi sự. Lý Tĩnh phát hiện ra động thái bất thường của Lý Uyên, đã giả vờ phạm tội để bị giải về Giang Đô, nhờ thế có thể báo tin cho Tùy Dạng Đế. Tuy nhiên khi ông đến Trường An thì cả vùng Quan Trung đã đại loạn, đường sá tắc nghẽn và không có cách nào đi đến Giang Đô. Không lâu sau đó, Lý Uyên quả nhiên khởi binh công chiếm Trường An và bắt được Lý Tĩnh. Nhớ thù xưa, Lý Uyên đem Lý Tĩnh ra hành hình, nhưng ông nói: "Đường công khởi nghĩa binh là muốn vì thiên hạ mà trừ bạo loạn, nhưng nay chỉ vì ân oán cá nhân mà chém tráng sĩ thì liệu có thành đại sự được không?". Lý Uyên ấn tượng với lời nói ông, đồng thời Lý Thế Dân, con trai thứ của Lý Uyên - vì thán phục dũng khí của Lý Tĩnh - cũng đứng ra xin hộ nên Lý Tĩnh được tha. Không lâu sau đó Lý Thế Dân mời Lý Tĩnh về phục vụ dưới trướng.[2]